OmniEdu: Open Foundation Models for Learning and Teaching
OmniEdu:面向学习与教学的开放基础模型
🧭 教育 LLM 能力导向指令微调
Peking University · University of the Chinese Academy of Sciences · Zhongguancun Academy
以能力平衡的指令微调语料构建教育基础模型,在K-12解题、课程定位与教学辅导上全面提升
📌 工作参考价值(4 点)
- 能力导向的数据组织可迁移到电商/推荐 LLM:按“商品理解/意图预测/解释生成/干预策略”等能力划分 instruction 数据,而不是按任务来源混合;用 token 预算做多样性采样,防止长尾能力被高频任务淹没。
- 多阶段数据质控流水线值得复用:确定性规则清洗 + 语义审计重写 + 任务特定质量评分,能显著降低垂直领域微调数据噪声;在电商搜索/推荐场景,可先用 LLM 对候选样本做语义评分,再按预算筛选。
- 领域数据与通用 instruction 混合(100+ 教育资源 + 通用指令)保持通用能力,避免灾难性遗忘;电商垂直 LLM 微调时可参考类似配比,保留通用对话与推理能力。
- 分尺度验证(4B/9B/27B)说明数据策略在不同模型规模上稳定有效,业务选型时可先用小模型快速验证数据配方,再扩展到更大模型。